Sau khi Super Junior ra mắt vào năm 2005, nhóm đã nhận được một vài nhận xét không tốt về giọng hát của nhóm khi dư luận cho rằng vì nhóm quá đông (13 thành viên), mỗi thành viên chỉ có thể hát một hai câu, thậm chí có người không có câu hát nào, nên không thể đánh giá được về chất giọng của nhóm. Bên cạnh đó, việc hát đông người như vậy sẽ rất lộn xộn và không thể gọi là âm nhạc chính thống được. Đặc biệt sau sự cố Heechul hát lạc giọng trong một buổi trình diễn ca khúc "U" thì công ty đã quyết định phải cho khán giả thấy được tài năng ca hát thực sự của Super Junior. Do đó, 3 thành viên hát hay nhất là Yesung, Ryeowook, Kyuhyun đã được lựa chọn để tạo nên nhóm nhỏ này. Tên nhóm, Super Junior-K.R.Y, trong đó K.R.Y là viết tắt chữ cái đầu tên của ba người: Kyuhyun - Ryeowook - Yesung.